Streaming Communication in Multi-Agent Reasoning
STREAMMA：多智能体推理中的步骤级流式通信协议
🧭 多智能体推理 · 流式通信协议 ★ 深度解读
HKUST(GZ) · Alibaba Group · ZJU · HKUST
将通信粒度从完整响应改为推理步骤，流式转发实现流水线并行，同时因步骤质量头部可靠尾部易错而提升效果。
📌 工作参考价值（4 点）
- 多智能体协同推理系统可采用步级流式传输，减少端到端延迟，且利用推理步骤的头部可靠、尾部易错特性，仅用早期步骤即可让下游智能体形成独立推理路径，提升最终效果。
- 借鉴步级缩放律（Step-Level Scaling Law）：固定智能体数量，通过提示工程增加每智能体推理步数，可同时提升准确率和加速比，为多智能体推理扩展提供新维度。
- KV-cache复用可大幅降低多智能体推理成本，结合现代推理引擎（vLLM、SGLang），相邻智能体共享上下文前缀，使解码成为主要开销，整体成本可比串行协议更低。
- 当任务可分解为多步推理（如商品信息分析、多步决策），可将智能体输出设计为“先可靠后弱化”模式，以释放Stream协议优势；若任务难度过高导致全链步骤不可靠，则单一智能体更优，需根据任务特性选择。